Enrico Fermi sinh tại Rome ngày 29 tháng 9 năm 1901. Ông là con thứ ba của Alberto Fermi và Ida de Gattis.[20][21] Ông có một chi là Maria lớn hơn ông hai tuổi, và người anh Giulio lớn hơn ông một tuổi. Sau khi hai cậu bé được gởi đến cộng đồng nông thôn để được chăm sóc, Enrico được gởi về gia đình ở Rome khi ông 2 tuổi rưỡi.[22] Vì gia đình ông là công giáo La Mã và được rửa tội theo ước nguyện của ông bà nội ông, một gia đình không theo tôn giáo, và Fermi theo thuyết bất khả tri trong suốt cuộc đời trưởng thành của mình. Khi còn trẻ, ông có cùng sở thích với anh ông là Giulio. Họ làm một động cơ điện và chơi với các đồ chơi điện tử và cơ khí.[23] Giulio chết trong khi đang gây mê phẫu thuật áp xe cổ họng năm 1915.[24]

Nguồn tài liệu đầu tiên của Fermi về nghiên cứu vật lý là sách được tìm thấy ở một chợ địa phương ở Rome có tên Campo de' Fiori. Quyển sách 900 trang từ năm 1840, Elementorum physicae mathematicae, được viết bằng tiếng Latinh của Jesuit Father Andrea Caraffa, một giáo sư ở Collegio Romano. Nội dung quyển sách gồm toán học, cơ học cổ điển, thiên văn học, quang học, và âm học.[25][26] Fermi kết bạn với một sinh viên khoa học nghiêng, Enrico Persico,[27] và hai người làm việc cùng nhau trong các dự án khoa học như xây dựng con quay hồi chuyển và đo lường từ trường Trái Đất. Sự thích thú của Fermi về vật lý được các đồng nghiệp của cha ông khuyến khích, Adolfo Amidei đã cho anh một số cuốn sách về vật lý và toán học mà ông đọc và tiếp thu một cách nhanh chóng.[28]